Karl Zahaberger wird 1921 in Mühlau (damals noch eigener Ort, seit 1938 Ortsteil von Innsbruck) geboren. Ab seinem siebten Lebensjahr erlernt er das Zitherspiel (ebenso wie Harfe, Gitarre und Mandoline) und wird schon sehr früh Mitglied des Innsbrucker Zithervereines. Er nimmt bereits vor dem Krieg Schallplatten auf, mit verschiedenen Gruppen, Duo’s und Trio’s (u. a. „D grüabigen Tiroler“, „Tiroler Instrumental-Trio“  oder im Duo mit Luis Luschnig – Gitarre). Auch soll er als (Aushilfs-) Harfinist bei den „fidelen Inntalern“ tätig gewesen sein?!  Zu komponieren begann er nach dem zweiten Weltkrieg, zu dieser Zeit wirkte er bei zwei österreichischen Kulturfilmen mit. Von 1951 bis ~ 1957 war er Mitglied einer „Austrian Good Will Tour“ – Gruppe, die die ganze Welt bereiste. Unter anderen gehörte dieser Tour auch Vroni Stöckl an, die Innsbrucker Zitherspielern und Jodlerin des Franz Winkler-Quartettes. In Chicago blieb er wohl hängen – und zwar im „Golden Ox Restaurant“, wo er sieben Jahre lang als Zithersolist tätig ist.

1965 kehrt er zurück nach Innsbruck und arbeitet dort wieder in seinem erlernten Beruf als techn. Zeichner. Daneben setzt er aber seine Arbeit als Zithersolist, Komponist und Arrangeur fort und schreibt mehr als 70 Kompositionen für Zither und fünf Musikbücher mit gesammelten Werken.